Тийнейджърките се изправят пред епидемия от фалшиви голи актове в училищата

Уестфийлдските държавни училища проведоха редовно заседание на борда в края на март в местната гимназия, комплекс от червени тухли в Уестфийлд, Ню Джърси, с табло отвън, гордо приветстващо посетителите на спортните отбори „Дома на сините дяволи“.

Но това не беше както обикновено за Дорота Мани.

През октомври някои момичета от 10-ти клас в гимназията Westfield - включително 14-годишната дъщеря на г-жа Мани, Франческа - предупредиха администраторите, че момчетата от техния клас са използвали софтуер с изкуствен интелект, за да фабрикуват сексуално явни изображения на тях и разпространяваха фалшивите снимки. Пет месеца по-късно Манис и други семейства казват, че районът не е направил малко, за да се обърне публично внимание на фалшивите изображения или да актуализира училищните политики, за да възпрепятства експлоатационния ИИ. употреба.

„Изглежда, че администрацията на Westfield High School и районът участват в майсторски клас, за да направят този инцидент изчезнал във въздуха,“ г-жа Мани, основател на местно предучилищно заведение, предупреди членовете на борда по време на срещата.

предупреди, че е незаконно да се разпространяват компютърно генерирани материали за сексуално малтретиране на деца, включително реалистично изглеждащи изображения, генерирани от AI на разпознаваеми непълнолетни, участващи в открито сексуално поведение.

Риана Пфеферкорн, изследовател в Станфордската интернет обсерватория, която пише за правни въпроси, свързани с компютърно генерирани изображения на сексуално малтретиране на деца.

В гимназия Issaquah близо до Сиатъл миналата есен, полицейски детектив, разследващ оплаквания от родители относно изрични изображения, генерирани от изкуствен интелект на техните 14- и 15-годишни дъщери, попита помощник-директор защо училището не е съобщило за инцидента на полицията, според доклад от полицейското управление на Issaquah. След това училищният служител попитал „какво е трябвало да докладва“, се казва в полицейския документ, което накарало детектива да я информира, че училищата са задължени по закон да докладват за сексуално насилие, включително възможни материали за сексуално насилие над деца. Впоследствие училището съобщи за инцидента на Службата за закрила на детето, се казва в доклада на полицията. (Ню Йорк Таймс се сдоби с полицейския доклад чрез искане за публични архиви.)

В изявление училищният район Issaquah каза, че е разговарял с ученици, семейства и полицията като част от разследването си на deepfakes. Дистриктът също „сподели нашата съпричастност“, се казва в изявлението, и предостави подкрепа на учениците, които бяха засегнати. -изображения, генерирани от разузнаване, на Службите за защита на детето поради прекомерна предпазливост“, отбелязвайки, че „според нашия правен екип не сме длъжни да докладваме фалшиви изображения на полицията.“

окръжни документи. (Окръгът каза, че образователният кодекс на Калифорния му забранява да потвърди дали изключените ученици са били учениците, които са произвели изображенията.)

Майкъл Бреги, началник на Обединеното училище в Бевърли Хилс District, каза, че той и други училищни ръководители искат да създадат национален прецедент, според който училищата не трябва да позволяват на учениците да създават и разпространяват сексуално явни изображения на свои връстници.

„Това е изключителен тормоз когато става въпрос за училищата“, каза д-р Бреги, отбелязвайки, че изричните изображения са „смущаващи и насилствени“ за момичетата и техните семейства. „Това е нещо, което абсолютно няма да толерираме тук.“

Бевърли Хилс и Уестфийлд бяха сред първите, които публично признаха инциденти с deepfake. Подробностите за случаите — описани в комуникациите на област с родители, срещи на училищни настоятелства, законодателни изслушвания и съдебни документи — илюстрират променливостта на училищните реакции.

Инцидентът в Уестфийлд започна миналата лятото, когато гимназист поиска да се сприятели с 15-годишна съученичка в Instagram, която имаше частен акаунт, според съдебно дело срещу момчето и родителите му, заведено от младата жена и нейното семейство. (Мани казаха, че не са замесени в делото.)

След като тя прие молбата, ученикът копира снимки на нея и няколко други съученички от социалните им медии сметки, се казва в съдебните документи. Тогава той използва A.I. приложение, за да изфабрикува сексуално явни, „напълно разпознаваеми“ изображения на момичетата и да ги сподели със съученици чрез група в Snapchat, се казва в съдебните документи.

Westfield High започна да разследва късно октомври. Докато администраторите тихо отведоха някои момчета настрана, за да ги разпитат, каза Франческа Мани, те извикаха нея и други момичета от 10-ти клас, които са били подложени на дийпфейкове, в училищния офис, като обявиха имената им по училищния интерком.

Тази седмица Мери Асфендис, директор на Westfield High, изпрати имейл до родителите, предупреждавайки ги за „ситуация, която доведе до широко разпространена дезинформация“. Имейлът продължава да описва deepfakes като „много сериозен инцидент“. Освен това се казва, че въпреки загрижеността на учениците относно възможно споделяне на изображения, училището вярва, че „всички създадени изображения са изтрити и не се разпространяват.“

Дорота Мани каза Администраторите на Уестфийлд са й казали, че районът е отстранил ученика, обвинен в измислянето на изображенията, за един или два дни.

Скоро след това тя и дъщеря й започнаха да говорят публично за инцидента, призовавайки училищните райони, щатските законодатели и Конгреса да приемат закони и политики, които конкретно забраняват изричните дълбоки фалшификации.

„Трябва да започнем да актуализираме нашата училищна политика,“ Франческа Мани, сега на 15, каза в скорошно интервю. „Защото ако училището имаше А.И. политики, тогава ученици като мен щяха да бъдат защитени.“

Родители, включително Дорота Мани, също подадоха жалби за тормоз в Westfield High миналата есен заради изричните изображения. По време на срещата през март обаче г-жа Мани каза на членовете на училищния съвет, че гимназията все още не е предоставила на родителите официален доклад за инцидента. не може да коментира никакви дисциплинарни действия от съображения за поверителност на студентите. В изявление д-р Гонзалес, началник, каза, че районът засилва усилията си „чрез обучение на нашите ученици и установяване на ясни насоки, за да се гарантира, че тези нови технологии се използват отговорно.“

Училищата в Бевърли Хилс заеха твърда обществена позиция.

Когато администраторите научиха през февруари, че момчетата от осми клас в средното училище Бевърли Виста са създали изрични изображения на 12- и 13-годишни съученички, те бързо изпратиха съобщение — тема: „Ужасяваща злоупотреба с изкуствен интелект“ — до всички родители, служители и ученици от средните и гимназиалните училища. Съобщението призовава членовете на общността да споделят информация с училището, за да се гарантира, че „смущаващото и неподходящо“ използване на ИИ от страна на учениците. „спира незабавно.“

Също така предупреждава, че окръгът е готов да въведе тежко наказание. „Всеки ученик, за който бъде установено, че създава, разпространява или притежава генерирани от изкуствен интелект изображения от такова естество, ще бъде изправен пред дисциплинарни действия“, включително препоръка за изключване, се казва в съобщението.

д-р Бреги, началникът, каза, че училищата и законодателите трябва да действат бързо, защото злоупотребата с ИИ. караше учениците да се чувстват несигурни в училищата.

„Чувате много за физическата безопасност в училищата“, каза той. „Но това, за което не чувате, е тази инвазия в личната, емоционална безопасност на учениците.“